Index-Free Dynamic Edge Retrieval with Energy-Tail-Aware Partial Scans
无索引动态边缘检索:能量尾部感知的部分扫描
🧭 边缘向量检索加速 · 动态 MIPS
Khalifa University
提出 ETAR,通过保留查询高能量坐标与低精度表示加速动态 MIPS,兼顾高召回与简单更新
📌 工作参考价值(4 点)
- 在推荐系统召回阶段,若使用内积打分(如双塔 embedding),可借鉴 ETAR 的查询能量裁剪思路:对 query 向量按平方值从大到小累加,直到覆盖总能量的 90%-95%,仅在这些维度上做部分内积,跳过尾部长尾,大幅减少每次请求的计算量。
- 对于需要频繁更新(新商品上架、用户行为流式更新)的在线召回,ETAR 的无索引设计避免了索引重建成本,天然适配流式数据;可在边缘/移动端部署个性化召回,如手机端本地推荐,利用 ARM 设备上实测最高 6.9 倍加速。
- 低精度表示与全精度 rerank 的组合值得落地:先用低精度(如 int8/float16)估算相似度筛选候选,再对固定数量候选用全精度向量精确重排,实测召回 99.2% 的同时延迟显著下降,适合精度敏感但延迟有限的生产环境。
- 该方法也可用于 Agent 的本地检索记忆或工具调用时的向量匹配,在资源受限环境中实现快速相似度搜索,减少对服务端依赖。